Co-ReAct: Rubrics as Step-Level Collaborators for ReAct Agents
Co-ReAct:将评估标准作为ReAct智能体的步骤级协作者
🧭 Agent 步骤级评估标准引导 ★ 深度解读
Qwen Applications Business Group of Alibaba · Tsinghua University
训练一个基于评分标准的生成器,以步骤级方式指导ReAct智能体的搜索决策,并通过列表式GRPO优化与专家排名的一致性,显著提升深度研究任务性能。
📌 工作参考价值(4 点)
- 电商搜索Agent构建中,可引入步骤级评分标准(rubric)明确每步目标(如“需覆盖2023-2025年新品”、“指定英文源”),提升信息收集的精准度与全面性。
- 训练一个轻量评判标准生成器,用列表式RL微调使其输出具有甄别力的准则,可作为即插即用组件注入现有ReAct、Best-of-N等方案,平均提升1-15%性能且无需改动原有决策机制。
- 注入+验证+重试机制:动作执行前用生成的标准进行校验,未达标则带反馈重试,此模式可有效降低错误动作率,适用于推荐系统的分步式查询扩展或多轮决策。
- 排名对齐的列表式奖励设计(Spearman相关系数)对生成式推荐中Semantic ID排序、候选动作评估等场景有借鉴意义,用全局排名代替逐对偏好能提供更丰富的梯度信号。